눈먼 행동의 문제점

복잡한 논리 문제를 해결하거나 여러 정보를 검색할 때, AI가 즉시 행동(Action)을 결정하도록 강제하면 심각한 오류로 이어질 수 있습니다.

사람이 직소 퍼즐을 푸는 방식을 떠올려 보세요:

• 사람은 아무 조각이나 무작위로 집어 보드에 억지로 끼워 넣지 않습니다.
• 그들은 머릿속으로 또는 말로 전략을 세웁니다: "먼저 테두리를 만들기 위해 평평한 가장자리 조각들을 찾아야지, 그다음에 이 파란 조각이 맞는지 확인해 봐야겠다."

마찬가지로, AI에게 오직 행동(Action)만을 출력하도록 하고 추론 단계를 건너뛰게 하면, AI는 "눈먼 행동"을 하게 됩니다. 질의에 답하기 위한 사전 조건을 정리하지 않았기 때문에, 종종 추측하거나 환각을 일으키거나 완전히 잘못된 도구를 선택하게 됩니다.